Yayınlanma tarihi: 14 Mayıs 2024, Son güncelleme tarihi: 20 Mayıs 2024
Tarayıcıda yerleşik olarak bulunan yapay zeka modelleri, uzman modelleri ve büyük dil modelleriyle (LLM) çalışacak şekilde tasarlanmış web platformu API'leri ve tarayıcı özellikleri geliştiriyoruz. Bu modeller arasında, Gemini LLM ailesinin en verimli sürümü olan ve en modern masaüstü ve dizüstü bilgisayarlarda yerel olarak çalışacak şekilde tasarlanmış Gemini Nano da yer alır. Yerleşik yapay zeka sayesinde web siteniz veya web uygulamanız, yapay zeka modellerini dağıtmanıza, yönetmenize veya kendi kendini barındırmanıza gerek kalmadan yapay zeka destekli görevleri gerçekleştirebilir.
Yerleşik yapay zekanın avantajlarını, uygulama planımızı ve bu teknolojiden nasıl yararlanabileceğinizi keşfedin.
Web geliştiricileri için yerleşik yapay zekanın avantajları
Tarayıcınız, yerleşik yapay zeka sayesinde temel ve uzman modelleri sağlar ve yönetir.
Yerleşik yapay zeka aşağıdaki avantajları sunar:
- Dağıtım kolaylığı: Tarayıcı, cihazın kapasitesini dikkate alarak modelleri dağıtır ve güncellemeleri yönetir. Bu nedenle, büyük modelleri ağ üzerinden indirme veya güncelleme konusunda sorumluluk size ait değildir. Depolama alanı çıkarma, çalışma zamanı bellek bütçesi, yayınlama maliyetleri ve diğer zorlukları çözmeniz gerekmez.
- Donanım hızlandırmaya erişim: Tarayıcının yapay zeka çalışma zamanı, GPU, NPU veya CPU'ya geri dönerek mevcut donanımdan en iyi şekilde yararlanacak şekilde optimize edilmiştir. Sonuç olarak, uygulamanız her cihazda en iyi performansı elde edebilir.
İstemci tarafında çalıştırmanın avantajları
Yerleşik yapay zeka sayesinde yapay zekayı istemci tarafında çalıştırabilirsiniz. Bu sayede aşağıdaki avantajlardan yararlanabilirsiniz:
- Hassas verilerin yerel olarak işlenmesi: İstemci tarafı yapay zeka, gizlilik hikayenizi iyileştirebilir. Örneğin, hassas verilerle çalışıyorsanız uçtan uca şifreleme özelliğine sahip kullanıcılara yapay zeka özellikleri sunabilirsiniz.
- Hızlı kullanıcı deneyimi: Bazı durumlarda, sunucuya gidip gelme işlemini atlamak neredeyse anında sonuç sunabileceğiniz anlamına gelir. İstemci tarafı yapay zeka, uygulanabilir bir özellik ile optimal olmayan bir kullanıcı deneyimi arasındaki fark olabilir.
- Yapay zekaya daha fazla erişim: Kullanıcılarınızın cihazları, özelliklere daha fazla erişim karşılığında işlem yükünün bir kısmını üstlenebilir. Örneğin, premium yapay zeka özellikleri sunuyorsanız bu özellikleri istemci tarafı yapay zeka ile önizleyebilirsiniz. Böylece, potansiyel müşteriler ek maliyet ödemeden ürününüzün avantajlarını görebilir. Bu karma yaklaşım, özellikle sık kullanılan kullanıcı akışlarında çıkarım maliyetlerini yönetmenize de yardımcı olabilir.
- Çevrimdışı yapay zeka kullanımı: Kullanıcılarınız internet bağlantısı olmadığında bile yapay zeka özelliklerine erişebilir. Bu sayede siteleriniz ve web uygulamalarınız çevrimdışıyken veya değişken bağlantıyla beklendiği gibi çalışabilir.
Karma yapay zeka: İstemci tarafı ve sunucu tarafı
İstemci tarafı yapay zeka, çok çeşitli kullanım alanlarını işleyebilir ancak bazı kullanım alanları için sunucu tarafı desteği gerekir. Sunucu tarafı yapay zeka, büyük modeller için mükemmel bir seçenektir ve daha geniş bir platform ve cihaz yelpazesini destekleyebilir.
Uygulamanız için aşağıdakiler gerekiyorsa karma bir yaklaşımı değerlendirebilirsiniz:
- Karmaşıklık: Belirli ve kolayca anlaşılabilen kullanım alanlarının cihaz üzerinde yapay zeka ile desteklenmesi daha kolaydır. Karmaşık kullanım alanları için sunucu tarafı uygulamayı değerlendirin.
- Dayanıklılık: Varsayılan olarak sunucu tarafını, cihaz çevrimdışıyken veya bağlantısı zayıfken ise cihaz üzerinde olanı kullanın.
- Sorunsuz yedekleme: Yerleşik yapay zeka içeren tarayıcıların benimsenmesi zaman alacaktır. Bazı modeller kullanılamayabilir ve eski veya daha az güçlü cihazlar tüm modelleri optimum şekilde çalıştırmak için gereken donanım gereksinimlerini karşılamayabilir. Bu kullanıcılar için sunucu tarafı yapay zeka sunun.
Örneğin, yerleşik Prompt API'yi (yakında kaynak deneme sürümünde kullanıma sunulacak) kullanıyorsanız API yalnızca Windows, macOS ve Linux'taki masaüstü Chrome tarayıcıları ve Chrome uzantılarında çalışır. Tüm kullanıcılarınızın yapay zeka özelliğinizden yararlanabilmesini sağlamak için Firebase AI Logic ile karma bir mimari oluşturun.
Gemini modellerini kullanırken Node.js ile arka uç entegrasyonu oluşturabilirsiniz.
Yerleşik yapay zekaya erişme
Yerleşik yapay zeka özelliklerine öncelikle Translator API veya Summarizer API gibi görev API'leriyle erişebilirsiniz. Görev API'leri, atama için en iyi modele göre çıkarım yapmak üzere tasarlanmıştır.
Chrome'da bu API'ler, ince ayar veya uzman modeli ile Gemini Nano'ya karşı çıkarım yürütmek için tasarlanmıştır. Çoğu modern cihazda yerel olarak çalışacak şekilde tasarlanan Gemini Nano, özetleme, yeniden ifade etme veya sınıflandırma gibi dil ile ilgili kullanım alanları için idealdir.
Yerleşik yapay zekayı ne zaman kullanmalısınız?
Yerleşik yapay zekanın size ve kullanıcılarınıza sağlayabileceği bazı avantajlar şunlardır:
- Yapay zeka destekli içerik tüketimi: Özetleme, çeviri, sınıflandırma, karakterizasyon ve bilgi sağlayıcı olarak kullanılabilir.
- Yapay zeka destekli içerik oluşturma: Yazma yardımı, gözden geçirme, dil bilgisi düzeltme ve yeniden ifade etme gibi özellikler.
Yerleşik yapay zeka API'lerinden bazıları Chrome'un kararlı sürümlerinde ve kaynak denemelerinde kullanılabilir. Keşif amaçlı API'ler ve erken aşama API'leri, Erken Önizleme Programı (EPP) katılımcıları tarafından kullanılabilir.
Yeni özellikleri önizleme
API'leri şekillendirmek, kullanım alanlarınızı karşıladıklarından emin olmak ve standartlaştırmayla ilgili olarak diğer tarayıcı tedarikçileriyle yaptığımız görüşmeleri bilgilendirmek için görüşlerinize ihtiyacımız var.
Yerleşik yapay zeka fikirlerinin ilk aşamalarıyla ilgili geri bildirim vermek ve yerel prototipleme yoluyla geliştirme aşamasındaki API'leri test etme fırsatlarını keşfetmek için EPP'ye katılın.